Celestinus sinh tại San Angelo de Limosano (Abruzzes) vào khoảng năm 1209-1210 với tên thật là Pietro del Morrone hay Pietro del Angelery. Ông sinh trong một gia đình nghèo ở Isneria, Abruzzi, nước Ý và là con thứ mười một trong mười hai người con. Năm hai mươi tuổi, ông từ giã mái trường.

Người ta cho rằng, ông sống năm năm trong một cái hang ở Morrone, gần núi Sulmona. Ðể chống lại các cám dỗ, ngoài thời giờ cầu nguyện và đọc Kinh Thánh, ông lao động thật cực nhọc hoặc sao chép lại các sách thiêng liêng. Ông không bao giờ ăn thịt và giữ chay bốn lần trong một năm.

Ngoài ra, ông còn mặc áo nhặm, đeo giây lưng bằng sắt, ngủ trên mặt đất hoặc tấm ván thô và dùng củi hoặc đá để gối đầu. Thân xác ông càng tiều tụy thì tinh thần của ông càng thăng tiến. Nhiều người đến với ông và bắt chước lối sống khổ hạnh ấy.

Vào năm 1240, ông sáng lập một cộng đoàn gồm những người tu đức theo luật Dòng thánh Bênêđictô (Đan viện San Spirito của Maiella), cộng đoàn Maiella của Chúa Thánh Thần (Holy Spirit Community of Maiella) (Benedictines/Celestines) và cho đến khi từ trần, trên toàn Âu Châu đã có ba mươi sáu đan viện và sáu trăm đan sĩ nam nữ sống theo quy luật của ông.

Sau ba năm, ông gia nhập dòng Biển Ðức và được thụ phong linh mục ở Rôma vào năm 1233-1234. Năm 1259, ông sáng lập đan viện Badia morronese về sau sẽ trở thành trụ sở chính của dòng Thánh Cêlestinô. Dòng này được thừa nhận vào năm 1254 (?). Năm 1293, ông mở rộng San Spirito của Morrone.